國際財經
產業動態
全球匯率
期貨與貴金屬
首頁國際新聞 》產業動態
日期: 2024-05-15 15:08
 NVIDIA新AI晶片高算力低能耗 集邦:明年成主流
 
• 2024-03-21 19:47
  (中央社記者張建中新竹2024年3月21日電)輝達 (NVIDIA)在GTC大會推出Blackwell架構的AI晶片 B100、B200及GB200等,不僅效能大幅提升,成本與 能耗同步優化,市調機構集邦科技預期,B200等產品 有望在2024年底陸續上市,並於2025年成為市場主 流。

集邦科技指出,Blackwell AI伺服器架構平台是今年 GTC大會亮點產品,甫以第2代Transformer引擎與第5 代NVLink技術,可支援高達10兆參數模型的AI訓練與 即時大型語言(LLM)推理。

據輝達表示,Blackwell架構繪圖處理器(GPU)配 備2080億個電晶體,採用台積電客製化4奈米製程製 造,透過每秒10TB的晶片到晶片互連連接成單個 GPU,利用4位浮點AI推論能力支援加倍地運算。

輝達指出,最新版本的NVLink提供每個GPU每秒 8TB的雙向吞吐量,確保在複雜的大型語言模型中, 實現576個GPU間無縫高速溝通。

輝達表示,GB200 NVL72系統串聯72個Blackwell GPU和36個Grace中央處理器(CPU),相較於H100 Tensor Core GPU,GB200 NVL72可提供30倍的大型語 言模型推論工作負載效能,並大幅降低成本和能源消 耗。

集邦科技表示,輝達產品服務涉及面向多元,但發 展核心仍以醫療、製造兩者為重。輝達針對醫療推出 20餘項醫療專用生成式AI微服務,亦更新BioNeMo模 型以強化電腦輔助藥物開發。

在製造方面,輝達則是推出適用於人形機器人的 GR00T專案基礎模型,以及透過Isaac平台將生成式AI 導入製造和物流應用。

集邦科技指出,輝達產品應用聚焦醫療和製造,主 要因為智慧化基礎高、轉型誘因強烈,數據雖然多且 雜,但密閉空間相對好蒐集,加上模擬技術越趨成 熟。預期隨著自駕車、電動車市場逐漸成熟,往智慧 載體演化的汽車產業有望成為輝達下階段發展重點。

   
迎2024 SID顯示週 友達群創秀大型微發光二極體 2024-05-13 20:38
COMPUTEX論壇6/5登場 輝達谷歌齊聚探討生成式A... 2024-05-13 19:31
台灣高層全數換血?小米:戰略性調整 2024-05-13 18:07
國際原料價跌 豐興鋼筋、廢鋼開平盤觀望行情 2024-05-13 18:05
喻為網際網路以來最大突破 華碩AI PC準備傾巢而出 2024-05-13 18:05
遠傳力孵新創小金雞 估創1.7億數位轉型商機 2024-05-13 16:10
鴻海研究院:攻生成式AI三大平台 高雄搶先機 2024-05-13 15:51
東陽4月稅前獲利創同期高 累計前4月大增121% 2024-05-13 14:56
電競市場回溫 偉訓首季每股賺1.4元、創歷年同期新高 2024-05-13 12:04
陽明、萬海首季業績靚 盤中齊衝漲停 2024-05-13 10:48
 
  Page  1  2   [ 3 ]   4  5  6  7  8  9  10